โจ เดวิส กลายเป็นนักบิลเลียดอาชีพตั้งแต่อายุ 18 ปี หลังจากชนะ เชสเตอร์ฟิลด์แชมเปียนชิป (Chesterfield Championship) ได้เมื่ออายุ 13 ปี ในปี 1926 เขาได้เข้าถึง เวิลด์ โพรเฟสชันแนล บิลเลียด แชมเปียนชิป (World Professional Billiards Championship) ในรอบสุดท้ายครั้งแรกของเขา แต่ก็ไม่ประสบความสำเร็จกับ ทอม นิวแมน (Tom Newman) ที่ปกป้องแชมป์ไว้ได้ เขาเข้ารอบสุดท้ายอีกครั้งในปีต่อมาและได้รองชนะเลิศอีกครั้งกับคู่แข่งเดิม และความโชคดีของเดวิสก็มาถึงเมื่อในการแข่งครั้งที่สามมาถึงนิวแมนก็ได้พ่ายแพ้ไป ในปี 1928 กลายเป็นแชมป์อิงลิชบิลเลียดครั้งแรก เขายังปกป้องแชมป์ได้ถึงสามสมัยที่ได้เจอกับ นิวแมน อีกครั้งในปี 1929 และ 1930 และ ชาวนิวซีแลนด์ คลาร์ก แม็คคอนนากี (Clark McConachy) ในปี 1932 เขาได้แข่งขันในรอบสุดท้ายอีกสองครั้ง ในปี 1933 และ 1934 ได้สูญเสียแชมป์ทั้งสองครั้งให้กับชาวออสเตรเลีย วอลเตอร์ ลินดรัม (Walter Lindrum)

จุดสูงสุดของบิลเลียดอาชีพของเขาได้เกิดขึ้นพร้อมกับความหันมาสนใจในสนุกเกอร์และเขาได้ช่วยกันจัดตั้งเวิลด์สนุกเกอร์แชมเปี้ยนชิป (World Snooker Championship) ในปี 1927 และชนะในการแข่งขันโดยเอาชนะ ทอม เดนนิส (Tom Dennis) ซึ่งทำให้เขาได้รับเงินรางวัล 6.10 ปอนด์[2] เขาแข่งขันจนชนะเวิลด์แชมเปี้ยนชิปเป็นประจำทุกปีจนกระทั่งปี 1940 น้องชายของโจ เฟรด อายุน้อยกว่าเขาถึงสิบสองปี ยังเป็นนักสนุกเกอร์และได้เป็นแชมป์หลายครั้ง เมื่อโจพบเฟรดในเวิลด์แชมเปี้ยนชิป ในปี 1940 โจ ชนะไปด้วยคะแนน 37–36

หลังจากมีสงครามโลกครั้งที่สอง เวิลด์แชมเปี้ยนชิปไม่ได้ถูกจัดขึ้นเป็นเวลาห้าปี ได้มีการเริ่มต้นใหม่ในปี 1946 เดวิสได้เป็นแชมป์ครั้งที่สิบห้าติดต่อกัน และดังนั้นยังครอบครองแชมป์มาถึง 20 ปี ถึงวันที่เขาได้รับรางวัล เวิลด์แชมเปียนชิปมากกว่าผู้เล่นอื่น[2] เขาได้สินใจแขวนคิวไปจากการแข่งข้นที่ตามมา ชัยชนะนี้ทำให้เป็นผู้เล่นที่ไม่เคยพ่ายแพ้ในประวัติศาสตร์ของเวิลด์แชมเปียน

เดวิสได้รับการพิสูจน์ว่าเขายังเป็นคนที่ชนะถึงยุค 1950 จากการชนะใน นิวส์ออฟเวิลด์แชมเปียนชิป (News of the World Championship) ที่ได้เข้าแข่งขันถึงสามครั้งในช่วงทศวรรษนี้ คู่แข่งที่ใกล้ที่สุดคือน้องชายของเขา เฟรด และเวิลด์แชมเปียนในอนาคต จอห์น พูลแมน (John Pulman) ทั้งสองได้เคยชนะถึงสองครั้ง เขาได้สร้างประวัติศาสตร์ในปี 1955 ด้วยการประสบความสำเร็จจากการทำแม็กซิมัมเบรก อย่างเป็นทางการด้วย 147 คะแนน ในสนุกเกอร์ใน เอ็กซิบิชันแมช ในเลสเตอร์ สแควร์ ฮอลส์ เป็นสถานที่สำคัญของประเทศสำหรับผู้ที่ชื่นชอบการเล่นบิลเลียด ก่อนหน้านี้เขาทำเซนจูรีเบรกครั้งแรกในปี 1930 นอกจากนี้ในช่วงทศวรรษนี้เดวิสพยายามจะทำให้เกมใหม่เป็นที่แพร่หลาย เรียกว่า สนุกเกอร์พลัส (Snooker-plus) ที่มีเพิ่มลูกอีกสองสีได้แก่สีส้มและสีม่วง ในปี 1963 เขายังได้รับรางวัลเพื่อยกย่องความกล้าหาญจาก จตุรถาภรณ์แห่งจักรวรรดิบริติช (Order of the British Empire (OBE)) เขายังคงเล่นอาชีพต่อจนถึงปี 1964

เดวิสเสียชีวิตเมื่อสองเดือนหลังจากการล้มป่วยในขณะที่ดูน้องชายแข่งขันกับ เพอร์รี แมนส์ (Perrie Mans) ในเวิลด์สนุกเกอร์แชมเปี้ยนชิป รอบรองชนะเลิศ ปี 1978 ในบ้านเกิดของเขาในเมืองวิตเวลล์ ดาร์บีเชอร์ ได้มีการทำแผ่นจารึกภาพเพื่อเป็นที่ระลึกให้แก่เขา